Mearsheimer sinh tháng 12 năm 1947 tại Brooklyn, New York.Ông lớn lên ở New York City cho tới khi được 8 tuổi, thì gia đình dọn tới Croton-on-Hudson, New York, một ngoại ô ở Quận Westchester, New York.[6]Khi được 17 tuổi, Mearsheimer tham gia quân đội Hoa Kỳ. Sau một năm, ông theo học trường võ bị Hoa Kỳ tại West Point 1966–1970. Sau khi tốt nghiệp, ông phục vụ 5 năm với tư cách là sĩ quan ngành không quân.[7][8]

1974, trong khi ở trong Không quân Hoa Kỳ, Mearsheimer lấy bằng thạc sĩ về Quan hệ quốc tế từ University of Southern California. Sau đó ông theo học Cornell University vào năm 1980 lấy được bằng tiến sĩ về quan hệ quốc tế. 1978–1979, ông nghiên cứu tại viện Brookings ở Washington, D.C.; 1980–1982, ông làm việc tại trung tâm quan hệ quốc tế của Harvard University. 1998–1999, ông là một thành viên Whitney H. Shepardson tại Hội đồng về quan hệ quốc tế ở New York.[6]